Retour d'expérience d'un projet de recherche pluridisciplinaire droit - informatique - sociologie : le droit à l'oubli

International audienc

Revealing the True Cost of Local Privacy: An Auditing Perspective

This paper introduces the LDP-Auditor framework for empirically estimating the privacy loss of Locally Differentially Private (LDP) mechanisms. Several factors influencing the privacy audit are explored, such as the impact of different encoding and perturbation functions of eight state-of-the-art LDP protocols. Furthermore, the influence of domain size as well as the theoretical privacy loss parameter $\epsilon$ on local privacy estimation are also examined. Overall, our LDP-Auditor framework and findings offer valuable insights into the sources of randomness and information loss in LDP protocols, contributing to a more realistic understanding of the local privacy loss. Furthermore, we demonstrate the effectiveness of LDP-Auditor by successfully identifying a bug in an LDP library.Comment: Accepted for poster presentation at TPD

Apprentissage quantique

Thèse numérisée par la Division de la gestion de documents et des archives de l'Université de Montréal

AnKLe: détection automatique d'attaques par divergence d'information

4 pagesInternational audienceDans cet article, nous considérons le contexte de très grands systèmes distribués, au sein desquels chaque noeud doit pouvoir rapidement analyser une grande quantité d'information, lui arrivant sous la forme d'un flux. Ce dernier ayant pu être modifié par un adversaire, un problème fondamental consiste en la détection et la quantification d'actions malveillantes effectuées sur ce flux. Dans ce but, nous proposons AnKLe (pour Attack-tolerant eNhanced Kullback-Leibler divergence Estimator), un algorithme local permettant d'estimer la divergence de Kullback-Leibler entre un flux observé et le flux espéré. AnKLe combine des techniques d'échantillonnage et des méthodes de théorie de l'information. Il est efficace à la fois en complexité en terme d'espace et en temps, et ne nécessite qu'une passe unique sur le flux. Les résultats expérimentaux montre que l'estimateur fourni par AnKLe est pertinent pour plusieurs types d'attaques, pour lesquels les autres méthodes existantes sont significativement moins performantes

AnKLe: Detecting Attacks in Large Scale Systems via Information Divergence

In this paper, we consider the setting of large scale distributed systems, in which each node needs to quickly process a huge amount of data received in the form of a stream that may have been tampered with by an adversary. In this situation, a fundamental problem is how to detect and quantify the amount of work performed by the adversary. To address this issue, we propose AnKLe (for Attack-tolerant eNhanced Kullback-Leibler divergence Estimator), a novel algorithm for estimating the KL divergence of an observed stream compared to the expected one. AnKLe combines sampling techniques and information-theoretic methods. It is very efficient, both in terms of space and time complexities, and requires only a single pass over the data stream. Experimental results show that the estimation provided by AnKLe remains accurate even for different adversarial settings for which the quality of other methods dramatically decreases

Développement d'un curriculum et d'un modèle de l'apprenant orientés vers un domaine multidisciplinaire : l'informatique quantique

Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal

Dégradation de données par publication éphémère

Le respect de la vie privée est un droit fondamental mais difficile à garantir sur Internet. Malgré les recommandations des experts, le principe de minimisation des données -- qui exige notamment que les données soient effacées aussitôt qu'elles ne sont plus strictement nécessaires (rétention minimale) -- est rarement appliqué, en raison d'intérêts divergents entre les hébergeurs des données personnelles et les utilisateurs. Pour diminuer l'impact de ces divergences, une alternative à la rétention minimale a été proposée, la dégradation des données : au lieu d'être complètement effacée, une donnée peut être progressivement dégradée vers des états moins précis qui protègent mieux la vie privée de l'utilisateur tout en conservant (partiellement) l'utilité de la donnée initiale. Cependant, aucune architecture n'existe à l'heure actuelle qui garantisse la dégradation des données sans un gestionnaire de base de données de confiance. En utilisant un système de publication éphémère (une donnée ne peut plus être accédée après une date d'expiration fixée à l'avance), nous proposons dans ce travail une architecture décentralisée qui garantit la dégradation des données sans aucun acteur de confiance dans le système